LeCun在Meta的「最后一作」
就在Yann LeCun即将离职meta创业的消息在AI圈刷屏时,他的一篇关于自监督学习的新论文也在arXiv上线。该论文提出了一种新框架LeJEPA,为解决当前JEPA方法中存在的多种失效模式提供了新路径。
就在Yann LeCun即将离职meta创业的消息在AI圈刷屏时,他的一篇关于自监督学习的新论文也在arXiv上线。该论文提出了一种新框架LeJEPA,为解决当前JEPA方法中存在的多种失效模式提供了新路径。
学习世界及其动态的可操控表征是人工智能的核心。联合嵌入预测架构(JEPAs)是实现这一目标的有前景的蓝图。其核心思想是:通过最大化语义相关视图(例如图像的不同变换或裁剪)的嵌入之间的一致性,来学习一个有组织且可操作的高维嵌入空间。